N.B. Het kan zijn dat elementen ontbreken aan deze printversie.
Geautomatiseerde handel Kunstmatige intelligentie rukt snel op in de financiële markten. Wat als een beurscrash niet meer herleidbaar is tot individuele, menselijke beslissingen? Toezichthouder AFM waarschuwt.
:format(webp)/s3/static.nrc.nl/images/gn4/stripped/data101233127-985704.jpg)
De Autoriteit Financiële Markten (AFM) maakt zich zorgen over kunstmatige intelligentie. In een woensdag gepubliceerd rapport waarschuwt de toezichthouder dat artificiële intelligentie (AI) door de huidige snelle ontwikkeling een gevaar vormt voor de financiële stabiliteit.
In de publicatie over financiële stabiliteit die de AFM jaarlijks op verzoek van de Tweede Kamer maakt, staat ditmaal dat foute beslissingen door gebruik van kunstmatige intelligentie tot veel stress op de markten kan leiden. Het gaat dan bijvoorbeeld om rekenmodellen die bepalen of aandelen verkocht moeten worden of juist gekocht.
De AFM ziet dat handelaren op de kapitaalmarkten nu al bij 80 tot 100 procent van hun beslissingen gebruikmaken van door de computer gemaakte rekenmodellen (algoritmes) en machine learning, computers die leren van data die ze van mensen krijgen over eerdere marktbewegingen. Zo proberen handelaren met computermodellen te voorspellen wat de prijs van een aandeel wordt, en laten ze computers automatisch handelen als een bepaalde prijs op de markt wordt bereikt.
Omdat het grootste deel van de Europese financiële handelshuizen in Nederland is gevestigd, heeft de AFM een belangrijk taak in het mondiale toezicht op de geautomatiseerde handel en op de voorspellende modellen. „Sommige van die bedrijven zijn echt de Champions League als het gaat om toepassing van algoritmes op de beurs”, zegt Stefan de Dobbelaere, toezichthouder kapitaalmarkten bij de AFM. „Je ziet dat die ook toptalenten van over de hele wereld weten aan te trekken, en daarin concurreren met instanties als de NASA.”
Oncontroleerbaar
Volgens De Dobbelaere is het niet zover dat de algoritmes die op de financiële markten beslissen over aankoop van een aandeel al oncontroleerbaar zijn. „Wat wij in een onderzoek eind 2022 zagen gebeuren bij de beursbedrijven, is nog in te perken. Het is nog geen zelf-acterende kunstmatige intelligentie, zoals de recent gelanceerde taalbot ChatGPT dat is.”
Bij machine learning, zoals handelaren op financiële markten die nu toepassen, voeden mensen de computer met data. ChatGPT daarentegen leert door zelf zoeken naar nieuwe gegevens, en het programma neemt op basis daarvan zelfstandig beslissingen. De Dobbelaere: „Daarom is nu nog uit te leggen waarom een bepaald algoritme ervoor zorgde dat een bepaalde kooporder werd ingelegd.”
Maar volgens de toezichthouder duurt het waarschijnlijk niet lang meer voor deze volgende generatie AI wordt toegepast op de financiële markten. „De techniek en de toepassing daarvan zijn echt heel hard in ontwikkeling. Er gaat veel geld heen en er zijn veel middelen beschikbaar om het iedere keer sneller, beter en slimmer te maken. Dan worden de modellen uiteindelijk zelflerend, zelfbewegend, zelfdenkend. En dan wordt het voor de mens moeilijk controleerbaar wat AI voor beslissingen neemt.”
:format(webp)/s3/static.nrc.nl/images/gn4/stripped/data99976916-c27bb5.jpg)
Financiële instabiliteit
Volgens de AFM kunnen geavanceerde algoritmes ervoor zorgen dat „marktsituaties” – een hard dalende beurs, een piek in een aandeel – niet meer verklaarbaar zijn en niet herleidbaar tot individuele beslissingen. „De markt wordt hiermee meer en meer een black box, wat kan resulteren in financiële instabiliteit”, aldus het rapport.
De AFM sluit zich dan ook aan bij recente oproepen van ondernemers en regeringen tot een pauze in de ontwikkeling van AI. De Dobbelaere: „Een pauze op de kapitaalmarkten is te extreem. Maar we moeten als toezichthouders en marktpartijen op de beurzen echt goed gaan nadenken wat de gevolgen zijn van kunstmatige intelligentie. Je ziet dat de nu toegepaste algoritmes de markten al veel meer kunnen bewegen dan toen alleen mensen nog handelsbeslissingen namen. Het gaat inmiddels om enorme snelheden, en enorme bakken met gegevens. Van links naar rechts, de hele wereld over. Dat betekent dat iets wat in Hongkong gebeurt, direct effect kan hebben in Europa. Het gaat de hele wereld over.”
De Dobbelaere haalt een incident aan bij de Amerikaanse bank Citi vorig jaar. Dat betrof een menselijke fout – een handelaar drukte diverse veiligheidskleppen in de handelssystemen van Citi opzij, waardoor een grote order in één keer de markt op kon – maar die had enorme impact. Normaal gesproken wordt zo’n grote order geleidelijk uitgevoerd om geen paniek te veroorzaken, Nu ‘zagen’ de algoritmes een verkoopgolf en versterkten ze dat effect volautomatisch. Hierdoor daalden met name in Scandinavië beurzen met meerdere procenten. De Dobbelaere: „Dat zijn dan gewoon domme algoritmes, eigenlijk, die doen wat ze gevraagd wordt. Er is in ieder geval niemand die tegen zo’n algoritme zegt: weet je dat wel zeker, ben je er zeker van?”
Hij tekent hierbij wel aan dat weghalen van de menselijke emotie in handelsbeslissingen, door middel van algoritmes, in veel gevallen positieve impact heeft. „Mensen maken veel fouten, die worden zenuwachtig door stress en nemen daardoor verkeerde beslissingen. Een algoritme heeft geen stress.”
Volgens De Dobbelaere is het ook niet per se slecht als slimmere kunstmatige intelligentie de kapitaalmarkten bereikt. „Als ChatGPT-achtige programma’s kunnen kijken naar bijvoorbeeld jaarverslagen van bedrijven, juichen we dat toe. Nu wegen veel algoritmes dat soort fundamentele informatie over hoe het met een bedrijf gaat namelijk niet mee.”
Europees toezicht
De AFM praat volgende week met de Tweede Kamer over het stabiliteitsrapport. Voornaamste doel is de parlementariërs over te brengen dat alle betrokken instanties goed moeten meekijken met de ontwikkelingen – en daarvoor voldoende kennis moeten hebben. „Daarom zou het een goed idee zijn als het toezicht op de kapitaalmarkten meer Europees wordt. Dat hebben we vaker gezegd, maar het geldt zeker ook wat betreft de AI-ontwikkelingen.”
De AFM ziet nu alleen rekenmodellen en handelsresultaten van de financiële huizen die actief zijn in Nederland. De Dobbelaere: „Daardoor hebben we een gefragmenteerd beeld.” En een Europese toezichthouder, zoals de European Securities and Markets Authority – die zich al richt op grensoverschrijdende marktpartijen – zou volgens hem bovendien makkelijker mensen kunnen aantrekken met verstand van AI.
